Googles KI „halluziniert“ über den Flugzeugabsturz in Indien und ändert das Flugzeugmodell
Google Overviews, die neue in die Suchmaschine integrierte KI-Funktion , hat einen bemerkenswerten Fehler gemacht: Nach dem Flugzeugabsturz des Fluges AI171 in Indien verwechselte die KI das Modell des betroffenen Flugzeugs, vermischte Verweise auf eine Boeing 787 mit denen eines Airbus A330 und zeigte die Informationen an, als wären sie völlig zuverlässig.
Diese Art von Fehlern wird als „Halluzination“ bezeichnet – ein Phänomen, das nur bei generativen KI-Systemen auftritt. Dabei werden Daten oder Antworten erfunden, die scheinbar wahr sind. Im Gegensatz zu herkömmlichen Suchmaschinen, die auf Quellen verweisen, versuchen Tools wie Google Overviews, das Web zusammenzufassen und Inhalte manchmal falsch zu kombinieren. Dies führt zu Fehlern, die in sensiblen Kontexten wie einer Tragödie kritisch sein können.
Was ist mit Google Overviews passiert?Am vergangenen Donnerstag ereignete sich in Indien ein schwerer Flugzeugabsturz. Eine Boeing 787 der Air India stürzte kurz nach dem Start ab. Mehr als 260 Menschen starben , darunter mehrere am Boden. Es war eine Tragödie mit weltweiten Auswirkungen. Wie so oft suchten viele Nutzer im Internet nach Informationen, um herauszufinden, was passiert war und um welchen Flugzeugtyp es sich handelte. Doch hier trat ein Problem mit der künstlichen Intelligenz von Google auf.
Das Tool „AI Overviews“ , das automatisierte Antworten auf der Grundlage von Suchergebnissen generiert, lieferte plötzlich falsche Informationen. Manche Nutzer bemerkten, dass die KI bei der Suche nach Informationen zum Absturz zwar mit Sicherheit behauptete, es handele sich um einen Airbus A330 , manchmal aber auch um eine Boeing 787 , und manchmal vermischte sie beide Angaben. Es war ein echtes Chaos.
Warum Googles KI beim Flugzeugabsturz in Indien falsch lagLaut ArsTechnica arbeitet diese KI, indem sie Internetfunde zusammenfasst , versteht aber nicht immer vollständig, was sie liest. In vielen Artikeln über den Absturz wird Airbus als Konkurrent von Boeing erwähnt. Das könnte die KI verwirrt und dazu geführt haben, dass sie trotz ihres selbstbewussten Auftretens falsche Aussagen machte.
Google hat sich geäußert und klargestellt, dass seine KI Fehler machen kann und dass am Ende jeder generierten Zusammenfassung eine Warnung hinzugefügt wird. Das Problem besteht jedoch darin, dass diese Warnung leicht ignoriert werden kann . In diesem Fall könnte der Fehler Airbus verärgert haben , da sein Name mit einem Unfall in Verbindung gebracht wurde, der nichts mit seinen Flugzeugen zu tun hatte.
Das Unternehmen aus Mountain View hat bestätigt, dass diese falsche Antwort ausgeschlossen wurde . Dies führt uns jedoch zu einer Schlussfolgerung im Zusammenhang mit KI: Obwohl diese Art von Tools nützlich sein kann, kann man ihren Aussagen nicht immer vollkommen vertrauen . Daher müssen Sie die Informationen sorgfältig prüfen.
20minutos
